Merkblatt – Hochrisiko-KI & verbotene Praktiken
Einfach erklärt für alle Mitarbeitenden
GEALAN Fenster-Systeme GmbH
Stand: 15.02.2026
Version: 1.0
KI kann sehr hilfreich sein – aber manche Einsätze sind rechtlich verboten oder bei GEALAN nicht erlaubt, weil sie Menschen stark betreffen (z.B. Bewerbungen, Leistung, Verhalten, Chancen).
Dieses Merkblatt erklärt:
- Warum gibt es diese Einschränkungen?
- Was ist verboten oder nicht erlaubt?
- Wie erkenne ich, ob mein Use Case betroffen ist?
Merke: Nicht das Tool ist entscheidend – sondern wofür es eingesetzt wird.
Warum gibt es Einschränkungen?
Rechtliche Grundlage: EU AI Act
Die EU AI Act (seit August 2024 in Kraft) regelt KI-Systeme europaweit. Ziel:
- Schutz von Grundrechten & Sicherheit
- Vertrauen in KI fördern
- Risiken begrenzen
Zwei Kategorien bei GEALAN relevant:
- Verbotene Praktiken (Art. 5 AI Act) → generelles Verbot in der EU
- Hochrisiko-KI (Anhang III AI Act) → bei GEALAN nicht erlaubt (gem. KI-Rahmenbetriebsvereinbarung)
Warum ist Hochrisiko-KI bei GEALAN nicht erlaubt?
Gem. KI-Rahmenbetriebsvereinbarung (RBV) Abschnitt 3:
"Hochrisiko-KI-Systeme gem. Anhang III AI Act sind bei GEALAN generell nicht zulässig."
Gründe:
- ✅ Schutz von Mitarbeiter- & Bewerberrechten
- ✅ Vermeidung automatisierter Diskriminierung
- ✅ Transparenz & menschliche Entscheidungshoheit
- ✅ Vermeidung rechtlicher Risiken (Bußgelder bis 15 Mio. €)
"Nicht erlaubt" heißt nicht "Idee tot" → oft kann der Use Case umgestaltet werden (siehe unten: "Wie kann ich umgestalten?").
Was ist verboten? (EU AI Act Art. 5)
Was ist gemeint? KI erkennt oder bewertet Emotionen/Stimmung/Stress von Mitarbeitenden (z.B. aus Video/Audio/Text).
Beispiel nicht erlaubt: ❌ "Tool erkennt Stress in Meetings und erstellt Team-Heatmaps."
Alternative (möglich): ✅ "Meeting-Zusammenfassung ohne Emotionserkennung, ohne Personenbewertung."
Warum verboten? Schutz der Privatsphäre, Vermeidung psychischer Überwachung.
2️⃣ Biometrisches Profiling mit sensiblen Ableitungen
Was ist gemeint?
KI leitet aus biometrischen Daten (Gesicht, Stimme, Gang) sensitive Eigenschaften ab (Gesundheit, Persönlichkeit, politische Meinung).
Beispiel nicht erlaubt:
❌ "Tool klassifiziert Mitarbeitende nach 'Gesundheitsrisiko' oder 'Persönlichkeit' aus Stimme/Video."
Alternative (möglich):
✅ "Zutrittskontrolle ohne KI-Profiling und ohne Ableitung sensibler Eigenschaften."
Warum verboten?
Schutz vor Diskriminierung, Schutz besonders sensibler Daten (Art. 9 DSGVO).
3️⃣ Social Scoring / automatische Verhaltensüberwachung
Was ist gemeint?
KI überwacht Verhalten (Chat, E-Mail, Anwesenheit) und erstellt Rankings/Scores für Mitarbeitende.
Beispiel nicht erlaubt:
❌ "KI überwacht Chat-/Mail-Verhalten und markiert 'Low Performer'."
Alternative:
Keine – diese Art der Überwachung ist grundsätzlich problematisch.
Warum verboten?
Schutz vor umfassender Verhaltenskontrolle, Vermeidung von "Gläsernen Mitarbeitern".
Was ist bei GEALAN nicht erlaubt? (Hochrisiko-KI)
Folgende Anwendungen sind bei GEALAN nicht zulässig:
- ❌ "KI sortiert Bewerbungen vor, rankt Kandidaten, erstellt Eignungsscore."
- ❌ "KI schlägt Top-3-Kandidaten vor (Shortlist)."
- ❌ "KI screent CVs und lehnt automatisch ab."
Warum? EU AI Act Anhang III Nr. 4 (HR-Recruiting) = Hochrisiko → bei GEALAN nicht zulässig.
Alternative (möglich): ✅ "KI unterstützt bei Textbausteinen für Stellenanzeigen (ohne Bewerberdaten)."
2️⃣ Leistung/Verhalten von Mitarbeitenden
Nicht erlaubt:
- ❌ "KI erstellt Leistungs-Ranking aus Arbeitszeit/Tasks/Outputs."
- ❌ "KI bewertet Teamfähigkeit aus Chat-/Meeting-Daten."
- ❌ "KI schlägt Beförderungen/Bonuszahlungen vor."
Warum?
Profiling/Scoring kann Entscheidungen faktisch steuern → Hochrisiko.
Alternative (möglich):
✅ Aggregierte, anonymisierte Auswertungen (ohne Personenbezug, nur Team-/Bereichsebene).
3️⃣ Aufgaben-/Schichtzuweisung
Nicht erlaubt:
- ❌ "KI verteilt Schichten automatisch nach Leistungsdaten."
- ❌ "KI weist unbeliebte Aufgaben basierend auf 'Engagement-Score' zu."
Warum?
Automatisierte Zuweisung mit Rechtswirkung → Hochrisiko.
Alternative (möglich):
✅ KI schlägt Optionen vor, Mensch entscheidet final.
Faustregel: Ist mein Use Case betroffen?
✅ 5 Fragen zur Selbstprüfung:
- Verarbeitet die KI Bewerbungen oder Kandidaten? → ❌ Nicht erlaubt
- Bewertet die KI Mitarbeiter (Leistung, Verhalten, Kompetenz)? → ❌ Nicht erlaubt
- Erkennt die KI Emotionen oder Stimmung von Mitarbeitenden? → ❌ Verboten
- Erstellt die KI Rankings/Scores für Personen? → ❌ Nicht erlaubt
- Trifft die KI automatische Entscheidungen über Personen (ohne menschliche Überprüfung)? → ⚠️ Prüfen (wahrscheinlich nicht erlaubt)
Wenn mindestens 1x "Ja" → Use Case muss umgestaltet oder gestoppt werden.
🟢 Typische erlaubte Use Cases (zur Orientierung)
✅ Meeting-Notizen erstellen (ohne Emotionserkennung)
✅ Texte überarbeiten (E-Mails, Berichte)
✅ Recherche & Analyse (ohne Personenbewertung)
✅ Übersetzungen
✅ Code-Unterstützung (für IT/Entwicklung)
✅ Bilder/Grafiken erstellen
✅ Interne Dokumentensuche (ohne Verhaltensüberwachung)
Wie kann ich umgestalten? (Redesign-Ansätze)
"Nicht erlaubt" bedeutet nicht "Idee tot". Oft kann der Use Case so umgestaltet werden, dass er keine verbotene Praktik oder Hochrisiko mehr darstellt.
Beispiele:
| Ursprünglich | Redesign |
|---|---|
| ❌ "KI erkennt Stress in Meetings" | ✅ "Meeting-Zusammenfassung ohne Emotionserkennung" |
| ❌ "KI rankt Bewerbungen" | ✅ "KI erstellt Stellenanzeigen (ohne Bewerberdaten)" |
| ❌ "KI erstellt Leistungs-Ranking" | ✅ "Anonymisierte Auswertungen (Team-Ebene)" |
👉 Mehr Beispiele im Abschnitt "Wie kann ich umgestalten?" weiter unten.
Beispiel 1: Meeting-Assistent
| Ursprünglich | Redesign |
|---|---|
| ❌ "KI erkennt Stress in Meetings und erstellt Team-Heatmaps." | ✅ "KI erstellt Meeting-Zusammenfassung ohne Emotionserkennung, ohne Personenbewertung." |
Was geändert wurde: Emotionserkennung entfernt, keine Personenbewertung.
Beispiel 2: Bewerbungsmanagement
| Ursprünglich | Redesign |
|---|---|
| ❌ "KI sortiert Bewerbungen vor und rankt Kandidaten." | ✅ "KI unterstützt bei Textbausteinen für Stellenanzeigen (ohne Bewerberdaten)." |
Was geändert wurde: Keine Verarbeitung von Bewerberdaten, nur allgemeine Textunterstützung.
Beispiel 3: Leistungsauswertung
| Ursprünglich | Redesign |
|---|---|
| ❌ "KI erstellt Leistungs-Ranking aus Arbeitszeit/Tasks." | ✅ "Aggregierte, anonymisierte Auswertungen (ohne Personenbezug, nur Team-/Bereichsebene)." |
Was geändert wurde: Keine individuelle Bewertung, nur anonymisierte Team-/Bereichsdaten.
Was tun bei Unsicherheit?
Wenn du unsicher bist, ob dein Use Case betroffen ist:
- Nicht einfach loslegen → lieber einmal zu viel fragen
- KI-Check anstoßen → Use-Case-Steckbrief erstellen
- Im Steckbrief markieren: "Hochrisiko-Verdacht = Unklar"
- KI-Manager kontaktieren → gemeinsame Klärung
Kontakt KI-Manager: [E-Mail-Adresse einfügen]
Merksätze
Nicht das Tool ist entscheidend – sondern wofür es eingesetzt wird.
"Nicht erlaubt" heißt nicht "Idee tot" – oft kann der Use Case umgestaltet werden.
Lieber einmal zu viel fragen als ein Verbot übersehen.
KI unterstützt – der Mensch entscheidet.
Häufige Fragen (FAQ)
❓ Warum ist CV-Screening verboten, wenn andere Unternehmen das machen?
Antwort: Andere Unternehmen setzen sich ggf. rechtlichen Risiken aus. Bei GEALAN haben wir uns bewusst für einen strengeren Schutzstandard entschieden (gem. RBV). Dies schützt uns vor Bußgeldern (bis 15 Mio. €) und sichert Mitarbeiter-/Bewerberrechte.
❓ Kann ich KI für interne Leistungsauswertungen nutzen?
Antwort: Nur wenn keine individuelle Bewertung erfolgt. Erlaubt sind z.B. anonymisierte, aggregierte Auswertungen auf Team-/Bereichsebene (ohne Personenbezug). Individuelles Ranking/Scoring ist nicht erlaubt.
❓ Was ist mit Meeting-Assistenten (z.B. Teams Premium)?
Antwort: Erlaubt, wenn keine Emotionserkennung und keine Personenbewertung (z.B. "Wer hat am meisten geredet?", "Wer wirkte gestresst?"). Meeting-Zusammenfassungen ohne diese Features sind OK.
❓ Darf ich KI für Stellenanzeigen nutzen?
Antwort: ✅ Ja, wenn keine Bewerberdaten verarbeitet werden. KI kann z.B. Textbausteine vorschlagen, Formulierungen optimieren, Rechtschreibung prüfen. Sobald Bewerberdaten (CVs, Anschreiben) verarbeitet werden → nicht erlaubt.
❓ Was passiert, wenn ich versehentlich ein verbotenes Tool nutze?
Sofort melden! Kontaktiere den KI-Manager. Wir klären gemeinsam:
- War es tatsächlich verboten?
- Welche Daten wurden verarbeitet?
- Müssen Betroffene informiert werden?
- Wie verhindern wir das in Zukunft?
Wichtig: Ehrliche Meldung ist besser als Vertuschung. Wir sind hier, um zu helfen.
Weiterführende Informationen
- SOP Einsatz von KI-Anwendungen: Verbindliche Regeln für alle KI-Anwendungen
- Nutzungsrichtlinie: Regeln für die tägliche Nutzung
- Rechtlicher Rahmen: EU AI Act, DSGVO, BetrVG, RBV
- SOP Hochrisiko-KI: Detaillierte rechtliche Grundlagen (für Spezialisten)
Dokument-Freigabe
Erstellt von: KI-Manager
Geprüft von: DSB, Betriebsrat, HR
Freigegeben von: Geschäftsführung
Datum: 15.02.2026
Version: 1.0
Status: Freigegeben
Änderungshistorie:
| Version | Datum | Änderung |
|---|---|---|
| 1.0 | 15.02.2026 | Erstversion |
merkblatt